Ông sinh ngày 10 tháng 10 năm 1870 tại Brno, Morava, nay là Cộng hòa Séc.

Thuở nhỏ, Adolf Loos làm việc ở xưởng thợ nề của bố ông, ở đây ông được làm quen với nghề thủ công của kiến trúc. Năm 17 tuổi, Loos thi vào Trường nghệ thuật Hoàng gia và Đế chế bang tại Reichenberg ở Bohemia. Năm 1889, Loos được gọi vào lính dự bị của quân đội hoàng gia Áo. Loos đặc biệt quan tâm tới các tác phẩm của Friedrich Schinkel, một kiến trúc sư Tân Cổ điển người Đức, và hơn tất cả là tác phẩm của Vitruvius.

Ông sang Mỹ năm 1893 và bị ấn tượng bởi sự phát triển và sáng tạo của công nghiệp xây dựng Mỹ. Thời gian tại Mỹ đã giúp ông hình thành nên khiếu thẩm mỹ kiến trúc của mình. Năm 1896, Loos trở lại Wien và bắt đầu làm việc cho hãng thiết kế kiến trúc của Carl Mayreder.

Vào cuối thập niên 1890, Aloos bắt đầu khuấy động những cuộn tranh luận của mình. Những tác phẩm bút chiến của ông với trường phái Cải cách Wien được đăng tải rộng rãi, trong khi công trình cửa hàng bách hóa Goldmann và Salatsch của ông được hoàn thành năm 1911, đối diện nhà thờ Hofburg ở Wien đã gây ra một vụ tranh cãi với kiến trúc mặt đứng phẳng lì của nó.

Năm 1908, Adolf Loos công bố tác phẩm nổi tiếng "Trang trí và tội ác". Ông khẳng định sự phát triển của máy móc sẽ thủ tiêu hoàn toàn các chi tiết trang trí trên tác phẩm nghệ nghệ thuật. Với ông, trang trí là vô dụng, là phí phạm tài nguyên và thời gian con người. Sự phát triển đó, theo ông, được xem như sự tiến hóa của văn hóa con người.

Một trong những công trình hấp dẫn nhất của ông, biệt thự Muller ở Praha, được xây dựng năm 1930, phục chế lại năm 2003. Công trình này được xem như đỉnh điểm cho ý tưởng tiên phong của ông về "Không gian kiến trúc xây dựng trên mặt bằng" (Raumplan), với sự phát triển liên tục về không gian thay vì giới hạn không gian theo quy ước.